从到达史语所至1932年期间，他在徐中舒先生的指导下参与明清内阁大库档案的整理工作，同时在北京大学旁听明清史的课程。“九一八”事变后，他随史语所来到上海，尔后又随所迁至南京。1933年始，他从史学组调到考古组，是年，他就被派往河南安阳参加殷虚第八次发掘，开始了他毕生喜爱的考古工作。他先后在河南小屯、后冈、侯家庄及浚县辛村等地，参加了多次的考古发掘。他对工作认真负责，在田野工作时强调亲临现场，以取得第一手资料，工作日记从不间断。

考古工作因抗日战争而进入停顿状态。尹焕章辗转迁移，后来到重庆中央博物馆筹备处工作，他被派驻乐山管理中央博物馆近千箱珍贵文物的工作，达六年之久，直到战争胜利。1946年，他随这批文物运回南京本院。南京博物馆成立后，他留任为保管部主任。未几，中国境内大规模基本建设的开展，他和赵青芳一起担任治淮文物工作队的副队长之职，负起配合工程进行文物保护及考古的工作，同时协助曾昭燏队长进行大量的组织和田野工作。他又是安徽组组长，足迹遍及安徽淮河各个工地。华东文物工作队成立后，他行踪遍及华东各省，其间还率队到郑州支持河南省的考古抢救工作。在华南工作队期间，他做了很多田野工作，主要着重在对新石器时代遗址进行调查发掘，先后写了《华东新石器时代遗址》一书，及〈关于东南地区几何印文陶时代的初步探测〉一文，对这些工作做初步的总结和介绍。